אופן־איי חשפה ביום חמישי את הדגמים החדשים שלה, o1, שמציעים התקדמות משמעותית בתחום החשיבה הלוגית, פתרון בעיות ומתן תשובות לשאלות מדעיות. הדגמים נחשבים כצעד מכריע בדרך לפיתוח בינה מלאכותית כללית (AGI) – מכונות שמגיעות ליכולת חשיבה אנושית.

בכרטיס המערכת המצורף, המתאר את תפקוד ה-AI, מכירה OpenAI בכך שהמודלים החדשים גם הגבירו באופן משמעותי את הסיכון לשימוש לרעה בטכנולוגיה, במיוחד בהקשר לייצור נשק ביולוגי. לראשונה העניקה החברה דירוג "סיכון בינוני" למודלים שלה בנוגע לנשק כימי, ביולוגי, רדיולוגי וגרעיני (CBRN). משמעות הדבר היא שהטכנולוגיה שיפרה באופן משמעותי את היכולות של המומחים לפתח נשק ביולוגי.

תוכנת בינה מלאכותית מתקדמת שמסוגלת לבצע נימוקים לוגיים שלב אחר שלב טומנת בחובה סיכון מוגבר לניצול לרעה לדעת מומחים. יושואה בנג'יו, אחד מחוקרי הבינה המלאכותית המובילים בעולם, הדגיש את הדחיפות של רגולציה חוקית כדי למזער סיכונים אלה. הוא התייחס להצעת חוק בקליפורניה שתחייב חברות לנקוט באמצעי בטיחות למניעת שימוש בבינה מלאכותית לפיתוח נשק ביולוגי. „ככל שהבינה המלאכותית מתקדמת לעבר אינטליגנציה כללית מלאכותית, כך הסיכונים גדלים כאשר אין אמצעי הגנה נאותים“, הזהיר בנג'יו.

חברות טכנולוגיה כמו Google, Meta ו-Anthropic עובדות כיום גם הן על פיתוח מערכות בינה מלאכותית מתקדמות. סוכני הבינה המלאכותית הללו יכולים לסייע לאנשים בביצוע משימות, ובנוסף מציעים הזדמנויות עסקיות משתלמות פוטנציאליות לחברות המתמודדות עם העלויות העצומות של פיתוח הבינה המלאכותית.

Here is the translation of the heading to Hebrew:

מירה מורטי, מנהלת הטכנולוגיות הראשית של OpenAI, הצהירה בפני ה-Financial Times כי החברה נוקטת זהירות רבה בהשקת דגמי o1 בשל היכולות הנרחבות שלהם. עם זאת, הדגמים יהיו זמינים למנויים משלמים דרך ChatGPT ולמתכנתים דרך API. מורטי הוסיפה כי הדגמים עברו בדיקות בטיחות מקיפות והם מפגינים ביצועים טובים בהרבה מבחינת בטיחות בהשוואה לגרסאות קודמות.